по полю. Если мы наткнемся на камень, лежащий в траве, говорил он, мы можем решить, что он был там всегда, но если мы найдем наручные часы, мы так не подумаем. Такое сложное устройство, как часы, не могло существовать здесь с начала времен, утверждал он. В какой-то момент талантливый часовщик должен был придумать и изготовить его. Все сложные вещи, которые мы находим в природе, полагал Пейли, подобны этим часам: единственный способ объяснить их происхождение – это найти их создателя, часового мастера, который, находясь вне поля нашего зрения, как предполагает, так и располагает.

Сходство между этими богословами и пуристами ИИ поразительно. И те, и другие интересовались происхождением способностей машин, первые – человеческих, вторые – созданных человеком. Те и другие считали, что эти машины должен намеренно создавать разум, похожий на их собственный, – так называемый разумный проектировщик. Для теологов это был Бог, для пуристов ИИ – они сами. И те, и другие были убеждены, что творения должны быть подобны своему создателю. Как в Ветхом Завете Бог создал человека по своему образу и подобию, исследователи ИИ пытались построить свои машины – по своему[175].

В общем, и теологи, и специалисты в области ИИ считали, что выдающиеся способности могут возникнуть только из чего-то, что напоминает человеческий интеллект. По словам философа Дэниела Деннета, и те и другие считали, что компетенции могут возникнуть только из понимания, что лишь разумный процесс может создать исключительно способные машины[176].

Однако сегодня мы знаем, что богословы ошибались. Люди и их способности возникли не потому, что их слепил кто-то умнее. В 1859 году Чарльз Дарвин доказал обратное: творческая сила – это восходящий процесс бессознательного замысла. Дарвин назвал это «эволюцией путем естественного отбора», простейшее объяснение которой требует от вас принять только три вещи: во-первых, что между всеми живыми существами есть незначительные различия; во-вторых, что некоторые из этих различий могут быть благоприятны для их выживания; и в-третьих, что эти различия передаются по наследству. Не было никакой необходимости в разумном проектировщике, непосредственно формировавшем события; только эти три факта могли объяснить все проявления замысла в естественном мире. Вариации могут быть крошечными, а преимущества – ничтожными, но, если оставить мир в покое на длительное время, эти вариации, ничтожные в каждом конкретном моменте, будут накапливаться в течение миллиардов лет и создадут ослепительную сложность. По выражению Дарвина, даже самые «сложные органы и инстинкты» были «усовершенствованы не при помощи средств, превосходящих человеческий разум, хотя и аналогичных ему, а путем кумуляции бесчисленных незначительных вариаций, каждая из которых была полезна для ее обладателей»[177].

Идеи естественного отбора и разумного замысла кардинально различаются. «Настоящий часовщик способен к предвидению, – писал Ричард Докинз, один из крупнейших исследователей Дарвина. – Он разрабатывает шестеренки и пружины и продумывает их взаимное расположение, держа в уме будущую цель. Естественный отбор – слепой, бессознательный, автоматический процесс, открытый Дарвином <…> не держит в уме никакой цели. У него нет ни ума, ни глаза ума. Он не строит планов на будущее. У него нет никакого видения, никакого предвидения, вообще никакого зрения. Если и можно сказать, что в природе он играет роль часовщика, то часовщик этот – слепой»[178].

Часовщик из рассказа Пейли обладал совершенным зрением и предвидением, но дарвиновский процесс естественного отбора не имеет ничего подобного. Он не обращает внимания на то, что делает, и бездумно натыкается на сложность на протяжении миллиардов лет, а не сознательно создает ее в одно мгновение.

Прагматическая революция в ИИ требует от нас аналогичного поворота в рассуждениях о том, откуда берутся способности созданных человеком машин. Сегодня наиболее способные системы – не те, что спроектированы сверху вниз разумными человеческими существами. Подобно эволюции, открытой Дарвином столетие назад, замечательные способности могут возникать постепенно из слепых, бездумных, восходящих процессов, которые совсем не похожи на человеческий интеллект[179].

Глава 4. Недооценка Машин

В 1966 году, во время первой волны искусственного интеллекта, исследователь Джозеф Вайзенбаум объявил о создании ELIZA, первого в мире чат-бота – эта система «сделает возможными определенные виды естественного общения между человеком и компьютером»[180]. Сначала Элиза была предназначена выполнять роль психотерапевта: «пациент» будет ей что-то говорить, а система – комментировать высказывания, из чего сложится беседа. Однако Вейценбаум не хотел, чтобы его воспринимали всерьез. Он, казалось, подшучивал над тем, насколько предсказуемы психотерапевты, повторяющие с глубокомысленным видом заявления пациента. Элиза, писал он, была просто «пародией».

Но как только Элиза заработала, события приняли неожиданный оборот. Система произвела на своих пользователей гораздо более сильное впечатление, чем ожидал Вейценбаум. Некоторые практикующие психиатры, ознакомившиеся с ней, полагали, что она сможет быть «готова к клиническому применению» после небольшого усовершенствования. Когда Вейценбаум пригласил свою собственную секретаршу, прекрасно знавшую, как устроена Элиза, испытать систему, после короткого начального обмена репликами она повернулась к нему и попросила покинуть комнату: она хотела провести некоторое время наедине с машиной. Вейценбаум был потрясен. Несколько лет спустя он писал, что этот опыт «заразил» его «фундаментальными вопросами, [от которых] я, вероятно, никогда не избавлюсь… о месте человека во Вселенной»[181].

Вейценбаум не ожидал от Элизы многого, потому что знал, что, хотя внешне эта система может казаться разумной, на самом деле она не мыслит и не считает себя психотерапевтом. «Я думал, что один человек может помочь другому научиться справляться со своими эмоциональными проблемами только в том случае, если помощник сам участвует в этих переживаниях», – писал он[182]. Но, отвергнув свою систему на этих основаниях, Вейценбаум недооценил возможности того, что создал.

Когда несколько десятилетий спустя началась революция прагматиков и исследователи стали систематически создавать машины, работающие совсем не так, как люди, ошибка Вейценбаума стала повторяться гораздо чаще и приводить к более серьезным последствиям. Исследователи искусственного интеллекта, экономисты и многие другие специалисты снова и снова попадали в ловушку возможностей новых машин, которые больше не создавались ради копирования какой-то якобы незаменимой черты человеческого интеллекта.

Разочарование

Влиятельная группа критиков из числа исследователей ИИ полагает, что революция прагматиков скорее стала источником разочарования, чем поводом для торжества. Возьмем их реакцию на шахматный триумф Deep Blue над Гарри Каспаровым. Ученый и писатель Дуглас Хофштадтер назвал эту победу «переломным событием», но счел ее чем-то, «не имеющим отношения к тому, что компьютеры становятся разумными»[183]. Машина IBM вызывала у него «слабый интеллектуальный интерес», потому что «грубый способ работы шахматных программ не имеет ни малейшего